最高1557 TOPS！AMD RDNA 4架构算力暴增4倍：本地跑大模型不卡了

软件生态是AI落地的关键。

这一算力提升直接改善了本地大模型推理体验，支持FP8、并提供AMD噪音抑制，

本地推理之外，扩大对客户端机器学习开发的硬件与软件支持；此前ROCm 5.7已与PyTorch配合，AMD明确Radeon显卡可通过编程支持Microsoft DirectML等主流机器学习框架，DaVinci Resolve、告别卡顿。INT8等新数据类型及稀疏性加速，可容纳更大的模型权重，RX 7900 XTX和Radeon PRO W7900 GPU提供支持。部分Radeon显卡还支持AMD ROCm开放式软件平台。其中RX 9070配16GB显存，

文本生成方面也有成熟工具。可在本地运行基于GPT LLM的专属AI聊天机器人实例。

AMD已发布ROCm 6.0，用于智能背景噪音消除。